切比雪夫不等式

Chebyshev's Inequality 切比雪夫不等式

Description

随机变量 $X$ 有期望: $E (X) = μ$ 方差: $D (X) = σ^{2}$ , 则对于任何给定的 $ε > 0$ ，有

\begin{array}{r} P {| X - μ | \geq ε} \leq \frac{σ^{2}}{ε^{2}} \Leftrightarrow P {| X - μ | < ε} \geq 1 - \frac{σ^{2}}{ε^{2}} \end{array}

$σ^{2}$ 越小，事件 ${| X - E (X) | < ε}$ 的概率越大
也即：方差越小，随机变量集中在期望附近的可能性越大（方差刻画了随机变量取值的离散程度）
当方差已知时，切比雪夫不等式给出了随机变量 $X$ 偏差期望值概率的上界
它适用于所有具有有限期望值和方差的随机变量。
它提供了一个概率上界，即它给出了一个概率的上限，实际概率可能更小。
它不依赖于随机变量的具体分布，只依赖于期望值和方差。
它是一种弱大数定律，因为它只给出了一个概率的上界，并没有给出概率的确切值。

在其他类型的分布特性（如正态分布）不适用或未知的情况下。它可以用来估计数据的离散程度，或者在没有足够数据来确定分布的情况下进行概率估计

\begin{aligned} P {| X - μ | \geq ε} & = \int_{| X - μ | \geq ε} f (x) d x \\ \leq \int_{| X - μ | \geq ε} \frac{(x - μ)^{2}}{ε^{2}} f (x) d x \\ \leq \frac{1}{ε^{2}} \int_{- \infty}^{+ \infty} (x - μ)^{2} f (x) d x \\ = \frac{D (X)}{ε^{2}} = \frac{σ^{2}}{ε^{2}} \end{aligned}